1. Cơ sở: Giới hạn và Xấp xỉ Dãy số
Chúng ta chuyển từ sự trừu tượng lý thuyết về giới hạn sang thực tế tính toán rằng bộ xử lý không thể tiến gần đến giá trị zero; nó chỉ có thể tiến gần đến một epsilon máy tính.
Một hàm số $f$ xác định trên tập hợp $X$ có giới hạn $L$ tại $x_0$, được viết là $\lim_{x \to x_0} f(x) = L$, nếu với bất kỳ số thực $\varepsilon > 0$ nào, tồn tại một số $\delta > 0$ sao cho $|f(x) - L| < \varepsilon$, mỗi khi $x \in X$ và $0 < |x - x_0| < \delta$.
Một dãy số $\{x_n\}_{n=1}^{\infty}$ có giới hạn là $x$ nếu với mọi $\epsilon > 0$, tồn tại một số nguyên dương $N(\epsilon)$ sao cho $|x_n - x| < \epsilon$ mỗi khi $n > N(\epsilon)$. Điều này biện minh cho các thuật toán lặp.
2. Liên tục và Khả vi: Yêu cầu an toàn
Trong phần mềm tính toán số học, tính liên tục (Định nghĩa 1.2) và khả vi (Định nghĩa 1.5) không chỉ là những thuộc tính học thuật; chúng là "yêu cầu an toàn" cho sự ổn định tính toán số học. Định lý 1.6 chứng minh rằng nếu một hàm số khả vi tại $x_0$, thì nó liên tục tại $x_0$, đảm bảo rằng những sai số đo đạc nhỏ sẽ không dẫn đến những bước nhảy đầu ra thảm họa.